尽管具有Relu激活功能的神经网络(NNS)在广泛的应用中找到了成功,但它们在风险敏感环境中的采用受到对稳健性和可解释性的担忧受到限制。以前的作品来检查稳健性,并改善解释性部分地利用了Relu Nn的分段线性函数形式。在本文中,我们探讨了relu nns在输入空间中创建的独特拓扑结构,识别分区本地多台之间的邻接并基于这种邻接的遍历算法。我们的Polytope Travering算法可以适用于验证与鲁棒性和解释性相关的广泛网络属性,提供统一的方法来检查网络行为。由于遍历算法显式访问所有本地多台面,因此它返回遍历区域内的网络行为清晰和完整的图像。遍历算法的时间和空间复杂性由通过穿过遍历区域的Relu NN分区超平面的数量来确定。
translated by 谷歌翻译